Searching with quantization: approximate nearest neighbor search using short codes and distance estimators

We propose an approximate nearest neighbor search method based on quantization. It uses, in particular, product quantizer to produce short codes and corresponding distance estimators approximating the Euclidean distance between the orginal vectors. The method is advantageously used in an asymmetric manner, by computing the distance between a vector and code, unlike competing techniques such as spectral hashing that only compare codes. Our approach approximates the Euclidean distance based on memory efficient codes and, thus, permits efficient nearest neighbor search. Experiments performed on SIFT and GIST image descriptors show excellent search accuracy. The method is shown to outperform two state-of-the-art approaches of the literature. Timings measured when searching a vector set of 2 billion vectors are shown to be excellent given the high accuracy of the method. Key-words: nearest neighbor search, large databases, quantization This technical report is in submission. ∗ [email protected] in ria -0 04 10 76 7, v er si on 1 24 A ug 2 00 9 Quantifier pour chercher: recherche approximative par codes compacts et estimateurs de distances Résumé : Nous proposons une méthode de recherche appproximative qui permet d’estimer la distance entre deux vecteurs en utilisant des codes courts quantifiés. Ces codes sont définis de manière conjointe avec leur estimateurs, qui approximent la distance euclidienne entre deux vecteurs. La méthode permet d’estimer la distance entre deux vecteurs à partir de leur codes respectifs. Contrairement aux techniques concurrentes, elle peut également être utilisée de manière asymétrique avec un estimateur de distance qui prend en entrée un vecteur et un code, ce qui améliore la qualité de l’estimation. Nous montrons que notre approche offre des résultats qui sont significativement au dessus de ceux de l’état de l’art en terme du compromis entre usage mémoire et qualité de la recherche. Les temps de recherche mesurés sur une base de vecteurs de 2 milliards de vecteurs SIFT montrent l’intérêt de notre méthode en pratique. Mots-clés : recherche de plus proches voisins, grandes bases de données, distance euclidienne, quantification in ria -0 04 10 76 7, v er si on 1 24 A ug 2 00 9 Searching with quantization 3